Trước đây, Pà Vầy Sủ là một xã thuộc huyện Hoàng Su Phì.

Ngày 30 tháng 4 năm 1962, dưới chính thể mới của Nhà nước Việt Nam Dân Chủ Cộng Hòa, một số xã của Hoàng Su Phì được chia thành nhiều xã nhỏ, trong đó: chia xã Chí Cà thành xã Chí Cà và xã Pà Vầy Sủ.

Ngày 1 tháng 4 năm 1965, Hội đồng Chính phủ ban hành Quyết định số 49-CP[3] về việc thành lập huyện Xín Mần trên cơ sở tách xã Pà Vầy Sủ thuộc huyện Hoàng Su Phì.

Ngày 14 tháng 5 năm 1981, Hội đồng Chính phủ ban hành Quyết định 185/1981/QĐ-CP[4] về việc sáp nhập xã Pốc Pài vào xã Pà Vầy Sử và tách xóm Sin Thờ Lá của xã Pà Vầy Sử để sáp nhập vào xã Chi Cà.